当今时代,大模型预训练使用的参数量和数量已经呈现爆炸性增长。从最早的GPT2只有几十亿个参数,到GPT3的1751亿参数,再到GPT4的万亿规模参数量,大模型对算力的需求不断攀升。同时,如何在数据和参数量爆炸的背景下,高效处理和存储大规模数据,也成为当今算力基础设施面临的两大挑战。面对这些挑战,存储系统迎来新的发展机遇。
自2022年底AI大模型发布以来,整个产业链已经发生了翻天覆地的变化。这一变革不仅体现在底层的算力基础设施上,算力芯片、存储系统、HBM封装以及新的计算架构层出不穷,更在应用层上,相较于AI1.0时代,AI大模型的应用范围得到了极大的扩展,在各个领域的渗透正快速进行,不仅局限于智慧城市和智慧安防等特定场景,更在B端的工业医疗、电商等多个领域落地生根,同时还渗透到日常生活的办公、游戏以及流媒体等方面,让AI真正地走入了人们的生活。rp3esmc
当今时代,大模型预训练使用的参数量和数量已经呈现爆炸性增长。从最早的GPT2只有几十亿个参数,到GPT3的1751亿参数,再到GPT4的万亿规模参数量,大模型对算力的需求不断攀升。同时,如何在数据和参数量爆炸的背景下,高效处理和存储大规模数据,也成为当今算力基础设施面临的两大挑战。rp3esmc
面对这些挑战,存储系统迎来新的发展机遇。日前,英韧科技正式发布了首款国产消费级PCIe 5.0主控方案YRS820,为国产存储市场注入了一剂强心针。rp3esmc
rp3esmc
AI大模型应用趋势下,算力、存储和传输板块成为最直接受益的领域,其中,GPU为代表的算力芯片市场、HBM以及企业级SSD市场则成为核心细分市场。rp3esmc
全球AI算力芯片市场规模近年来持续扩大,维持在四五百亿美金的规模,增速达到百分之二三十。这背后反映了AI技术广泛应用所带来的巨大算力需求。同时,HBM市场规模也经历了从近10亿美金到百亿美金的快速增长,市场供不应求的状态愈发明显。例如美光今年的HBM产能已全部售罄,三星等厂商也纷纷制定大规模扩产计划,以应对市场需求的激增。rp3esmc
在企业级市场,数据中心数据量的爆发和存储需求的提升推动了固态硬盘市场的稳定增长。企业级SSD市场不仅受益于AI技术的发展,同时也为AI大模型提供了更加稳定、高效的存储解决方案。rp3esmc
回望AI的发展历史,我们可以清晰地看到算力芯片与大模型之间的紧密互动。英伟达GPU的崛起,不仅改变了计算领域的格局,更成为AI大模型发展的重要推手。从最初的简单算法到如今的复杂模型,每一次技术的跃进,都离不开GPU提供的强大算力支持。rp3esmc
与此同时,AI模型的演变也对底层硬件提出了新的挑战。随着模型规模的扩大和复杂度的提升,对计算性能、存储容量和数据带宽的需求也在不断增加。这促使着硬件厂商不断创新,推出更加高效、更加智能的芯片产品。rp3esmc
在这个过程中,GPU以其通用性强、性能卓越的特点,逐渐成为了AI算力芯片的主流架构。相比之下,一些专用性架构在模型迭代的过程中可能会遭遇瓶颈,因为上层模型的改变可能导致之前定义的属性不再适用。而GPU的通用性则使得它能够适应各种不同类型的AI模型,从而在未来的发展中占据优势。rp3esmc
目前,英伟达无疑是全球算力芯片领域的领军者,其市场占有率近70%,这一成就的取得,离不开英伟达在技术创新和生态建设上的持续投入。rp3esmc
一方面,英伟达不断推动GPU性能的提升,以满足AI模型对算力的不断增长的需求。例如,最近发布的B200相较于前代产品H100在性能上有了五倍的提升,展现了英伟达在性能迭代上的强大能力。rp3esmc
另一方面,英伟达也注重扩大生态的建设。通过提供完整的工具套件和专用加速库,英伟达为AI开发者创造了一个便捷、高效的开发环境。这使得越来越多的开发者加入到英伟达的生态系统中来,进一步推动了AI技术的普及和发展。rp3esmc
然而,尽管英伟达在AI算力芯片领域取得了显著的成就,但云岫资本高级投资经理陆天寅认为,国内GPU行业仍然面临着巨大的机遇。随着美国商务部对高性能芯片的禁令和先进制程的限制,国内算力芯片的发展需要寻找新的路径。在这个背景下,国内GPU厂商需要抓住机遇,发挥自身优势,推出能够平替英伟达芯片的产品,从而满足国内AI开发者的需求。rp3esmc
同时,高性能的存储需求也随着AI发展日益显现,在此背景下,英韧科技于日前,发布了国产高端消费级PCIe 5.0主控方案YRS820,也是其第九款量产的主控芯片。rp3esmc
随着数字时代的快速发展,全球数据总量呈现出爆炸式增长的态势。英韧科技的联合创始人陈杰指出,根据最新预测,到2027年,全球新增数据总量将达到惊人的291ZB。面对如此庞大的数据洪流,传统的存储解决方案已难以满足需求,新一代存储控制器的研发与应用显得尤为迫切。rp3esmc
在当前的技术背景下,超强算力的GPU和CPU的几何倍数增长对存储带宽提出了更高的要求。然而,当前的存储产品却面临着带宽增长缓慢的瓶颈。陈杰:“为了打破这一‘存储墙’,我们迫切需要一种更高带宽、更大容量、更高速且更低延迟的存储产品。”rp3esmc
在这一背景下,PCIe接口技术的迭代与更新显得尤为重要。自2017年起,PCIe接口每两年都经历着迅速的升级与变革。英韧科技从PCIe 3.0起步,逐步在国内市场领跑PCIe 4.0技术,再到全国首发PCIe 5.0企业级控制器,每一步都见证了其在存储技术领域的创新与突破。陈杰:“今天,我们更是发布了PCIe 5.0高端消费级控制器产品,预示着未来存储技术的无限可能。”rp3esmc
rp3esmc
据介绍, YRS820支持4通道PCIe 5.0标准的接口,配备了8个NAND闪存通道,支持NVMe 2.0协议,接口传输率达2667MT/s,可搭配3D TLC/QLC NAND闪存,最高支持8TB容量。其提供了14GB/s的顺序读取速度,以及12GB/s的顺序写入速度,随机读取和随机写入分别达到了2000K IOPs和1500K IOPs。rp3esmc
YRS820不仅在性能上刷新了整个行业的标杆,同时也因为采用开源和开放的RISC-V架构,英韧在此基础上进行了二次开发。陈杰:“我们采用了多核并行处理的方式,并进行定制化处理,通过紧耦合设计,确保接口的传输效率或转化效率达到最高状态。”rp3esmc
在安全方面,YRS820采用了独立的安全CPU子系统进行管理,确保数据安全和用户信息的全方位隔离。密钥的管理同样实现了完全隔离,为用户打造了一个真正意义上的安全岛,实现了主机端和用户端的双向认证功能。只有经过授权的主机才能访问用户的存储设备,同时,主机也只能对被认证的存储设备(或SSD盘)做出响应。这种双向认证机制有效防止了恶意攻击对主机造成的潜在伤害,进一步增强了系统的安全性。rp3esmc
在硬件加速器方面,陈杰表示:“我们全面实现了NVMe最新的2.0标准,在对应的NVMe引擎上,我们大量应用了硬件加速器设计,如命令解析、命令分发全硬件实现,同时设计专用的DMA处理引擎,实现了数据的高效直接访问和处理。此外,我们还配备了符合国密和国际标准的加密引擎模块,实现了带宽无损的加解密,为用户的数据安全提供了有力保障。”rp3esmc
针对控制器与不同颗粒的适配问题,YRS820采用了自定义的NAND Flash命令生成方式。这使得YRS820能够支持市面上所有颗粒的所有命令序列,并预见和适配未来可能出现的不同NAND 序列和命令。这种设计确保了英韧的控制器能够灵活适应各种存储颗粒,为用户提供更加稳定和可靠的存储体验。rp3esmc
LDPC纠错编解码引擎作为主控芯片中的一个重要模块,直接决定了数据可靠性和完整性,以及SSD固态硬盘的使用寿命。基于特有的专利编解码技术,英韧于2018年成功研发并全面启用4K LDPC纠错技术,并广泛应用于自主研发的消费级和企业级主控芯片中,并极大的降低了系统UBER,引领了纠错编解码技术在行业的技术创新发展。随着英韧对纠错编解码技术的持续投入和自主研发,该核心技术已经迭代到了第三代,达到了业界领先水平。rp3esmc
rp3esmc
那么,4K LDPC到底强在哪里呢?陈杰从用户的角度总结出以下四大优势:rp3esmc
据陈杰介绍,在实际应用中,英韧的LDPC技术相比市场常见方案有着显著的优势。通过硬解码和软解码两种方式的应用,在相同的条件下,英韧的技术能够更高效地纠正错误,提高数据的可靠性和完整性。rp3esmc
此外,在编解码的实现方式上英韧也有独特的技巧。陈杰:“通过优化算法和硬件设计,我们实现了更低的功耗、更低的延迟以及更快的迭代速度。这不仅保证了速度的稳定更新,还为用户提供了更加流畅和高效的数据存储与传输体验。”rp3esmc
针对颗粒的适配问题,英韧也有一系列的解决方案。通过在线升级的方式,我们可以灵活地修改LDPC的编解码矩阵,从而实时享受到最新的研发成果。同时,在解码过程中,我们还综合考虑了颗粒的当前使用寿命和使用温度条件,以确保功耗和性能的平衡。rp3esmc
除了以上优势外,英韧还致力于提供完整软件、硬件、算法协同优化的ECC整体解决方案。从LDPC算法到信号处理技术,再到ASIC的实现和固件的配合调优,为用户提供了一站式的服务。这不仅确保了用户数据的完整性,还提高了系统的稳定性和可靠性。rp3esmc
此外,在低功耗设计方面,英韧通过融入负载流量和温度的监控,以及引入功耗分析的管理器,形成了一个反馈系统,可以实时监测流量和温度,从而达到功耗和性能的最佳平衡点。rp3esmc
最后,英韧的主控芯片还提供了丰富的外围接口,支持各种通信协议,实现了设备之间的有效通信和安全控制。陈杰:“同时,我们还积极探索AI在数据存储与传输领域的应用,通过AI引擎自动识别和处理数据属性,为用户提供更好的使用体验。”rp3esmc
产品发布之后,如何挖掘并激发新的潜力成为英韧面临的关键问题。rp3esmc
英韧科技销售副总裁韩炳冬认为,答案在于利用技术创新,帮助客户寻找到更多的差异化价值。rp3esmc
回顾存储市场现状,自去年三季度末以来,整个上游市场呈现出强势的涨价态势,使得许多客户面临“面粉比面包贵”的窘境。同时,国内模组客户也承受着来自原厂和海外品牌的双重价格压力。高端制程闪存的供应紧张和价格上涨,进一步影响了传统产品的供应和出货。尽管终端市场出现了一定程度的库存出清,但整体需求并未出现预期的报复性反弹,部分渠道市场甚至出现了倒挂现象。rp3esmc
然而,在传统市场之外,新的市场机遇正在悄然兴起。AI相关市场如AI PC、AI服务器市场,特别是基于GPU或人工智能的智算服务器,其出货量正在大幅增长。这些新市场的崛起,为我们提供了思考和布局产品优化的契机。rp3esmc
存储行业具有周期性特点,虽然历史不会完全重演,但韩炳冬认为,可以从过去的NAND和SSD价格曲线中寻找到一些共性的规律。这些规律显示,在价格下跌后往往会迎来反弹,而在这个过程中,行业也会发生一些重要的技术变革,如TLC替换MLC、Gen 3.0向4.0的切换等。这些变革不仅优化了成本,还推动了高价值市场的发展。因此,韩炳冬认为可以借鉴历史的经验,思考如何在当前的市场环境下进行类似的布局。rp3esmc
rp3esmc
韩炳冬表示,作为中国企业,还需要特别关注国内的市场环境和政策导向。近年来,国潮的兴起和政策对消费的鼓励,都为我们提供了宝贵的发展机遇。一份关于中国品牌消费的报告显示,从70后到00后,主流购买力对国有品牌的认知和接受度正在快速提升。他们更加关注产品的性能本身,以及品牌的创新力。这为中国存储企业指明了产品创新和品牌建设的方向。rp3esmc
此外,游戏市场的持续增长和高端笔记本的出货情况表明,高端需求一直存在且呈现出增长态势。因此,韩炳冬表示:“我们需要做的不仅仅是满足客户的需求,更要在产品上做出特点,实现差异化竞争。” rp3esmc
韩炳冬表示,将积极与客户共同拓展PCIe 5.0高端市场,提供全面的技术支持。同时,积极协调市场价格,确保客户能够在公平的竞争格局中获得利益。rp3esmc
此外,英韧也将更加关注产品的成本竞争力,特别是在PCIe 3.0/4.0市场领域,努力帮助客户找到资源的价值差异化,实现市场突破。rp3esmc
至于PCIe 6.0以及7.0的标准,英韧科技也在关注,并做了很多前沿的预研,和行业头部客户就具体产品问题保持密切沟通。rp3esmc
微信扫一扫,一键转发
关注“国际电子商情” 微信公众号
国际电子商情24日讯 被看作“晴雨表”的模拟芯片巨头德州仪器 (Texas Instruments Inc.) 周二公布的第二季度利润超过了分析师的预期,这表明库存过剩的局面即将结束,也让投资者确信模拟芯片市场需求正在复苏,这对整个行业来说是个好兆头。
国际电子商情23日讯 据外媒报道,日本电机大厂日立制作所(Hitachi)传出规划退出家用空调市场,专攻商用空调领域。其于美国JCI合资成立的JCHAC(Johnson Controls-Hitachi Air Conditioning)将考虑出售给德国博世(Bosch)……
从高科技装备到智能化解决方案,深圳企业以实际行动诠释了“中国制造”向“中国创造”的华丽转身,不仅助力奥运健儿在巴黎奥运会赛场上的表现,更向世界展示了“深圳智造”和“中国创新”的独特魅力。
台积电上调全年收入预期。
个人电脑市场连续三个季度实现同比增长。
AI和生成式AI技术发展,不只是带动了AI数字芯片的大热,现在各类集成电路与电子元器件相关市场参与者都在谈AI,包括感知、存储、通信、电源等等。
国际电子商情讯 最近加拿大联邦政府通过宣布资金支持,直接和间接地加大了对加拿大半导体产业的支持,但如果加拿大的芯片行业要扩大规模,还有很多准备工作要做……
国际电子商情19日讯 据外媒Tom's hardware报道,为减少对亚洲的依赖并在美洲封装美国芯片,美国政府启动了一项提升拉丁美洲芯片封装能力的计划。
各地政府兴起智算中心建设热潮。
国际电子商情18日讯 美国商务部日前与全球第三大半导体硅晶圆供应商环球晶圆公司达成初步协议,将根据《芯片法案》提供高达4亿美元的直接资助,以帮助关键半导体晶圆的生产。
IT桔子最新数据显示,2024年上半年,中国集成电路领域的投资事件为288起,融资规模为534.56亿人民币。与最近几年的数据相比,中国半导体领域的投融资的又有怎样的变化?本文从全球视角出发,分析了中国半导体领域的投融资情况。
自2023年下半年以来,光伏行业进入新一轮调整期。
在各大半导体厂商抢攻AI商机之际,芯片产能却赶不上需求。
TrendForce集邦咨询预估AI服务器第2季出货量将季增近20%,全年出货量上修至167万台,年增率达41.5%。
根据TrendForce集邦咨询最新存储器产业分析报告,受惠于位元需求成长、供需结构改善拉升价格,加上HBM(高带宽内
根据TrendForce集邦咨询最新存储器产业分析报告,受惠于位元需求成长、供需结构改善拉升价格,加上HBM(高带宽内
近日,中国科学院上海微系统与信息技术研究所宋志棠、雷宇研究团队,在三维相变存储器(3D PCM)亚阈值读取电路、高
7月21日,TCL电子公布2024年上半年全球出货量数据,TCL电子表示,得益于公司在全球市场的积极开拓和品牌影响力的
据美国趣味科学网站16日报道,来自美国麻省理工学院、美国陆军作战能力发展司令部(DEVCOM)陆军研究实验室和加拿
全球LED市场复苏,车用照明与显示、照明、LED显示屏及不可见光LED等市场需求有机会逐步回温,亿光下半年车用及
三星最新推出的Galaxy Watch 7,继续重新定义可穿戴技术的极限。这款最新型号承袭了其前身产品的成功之处,同时
2024年第二季度,在印度大选、季节性需求低迷以及部分地区极端天气等各种因素的影响下,印度智能手机市场微增1%
根据TechInsights无线智能手机战略(WSS)的最新研究,2024年Q1,拉丁美洲智能手机出货量强劲增长,同比增长21%。
Chiplet的出现标志着半导体设计和生产领域正在经历一场深刻的变革,尤其在设计成本持续攀升的背景下。
“芯”聚正当时!第二十一届中国国际半导体博览会(IC CHINA 2024)正式定档,将于2024年11月18-20日在北京·国家
7月25日,由全球领先的专业电子机构媒体AspenCore与深圳市新一代信息产业通信集群联合主办的【2024国际AIoT生
2024年7月17日-19日,国内专业的电子元器件混合分销商凯新达科技(Kaxindakeji)应邀参加2024年中国(西部)电子信息
在7月12日下午的“芯片分销及供应链管理研讨会”分论坛上,芯片分销及供应链专家共聚一堂,共谋行业发展大计。
7月8日-10日,2024慕尼黑上海电子展(elec-tronica China)于上海新国际博览中心盛大开展,凯新达科技被邀重磅亮
2024年7月8日到10日 ,浙豪半导体(杭州)有限公司作为小华半导体的优秀合作伙伴,在2024慕尼黑上海电子展上展出了
7月25日,由全球领先的专业电子机构媒体AspenCore与深圳市新一代信息产业通信集群联合主办的【2024国际AIoT生
近日,2024 Matter 中国区开发者大会在广州隆重召开。
7月25日,由全球领先的专业电子机构媒体AspenCore与深圳市新一代信息产业通信集群联合主办的【2024国际AIoT生
7月13日,以“共筑先进封装新生态,引领路径创新大发展”为主题的第十六届集成电路封测产业链创新发展论坛(CIPA
新任副总裁将推动亚太地区的增长和创新。
以碳化硅和氮化镓为代表的宽禁带半导体已成为绿色能源产业发展的重要推动力。
点击查看更多
北京科能广告有限公司深圳分公司 版权所有
分享到微信
分享到微博
分享到QQ空间
推荐使用浏览器内置分享
分享至朋友圈